AI的信任危机:不仅仅是时间问题
人工智能
导
读
现在由AI驱动的购买系统能够收集销售和运送订单,查看历史趋势,以及在有明显的需求之前,预定和提前支付用于生产的大批货物,而这些都不需要人类的监督。但是你会信任AI系统吗?现在由AI驱动的购买系统能够收集销售和运送订单,查看历史趋势,以及在有明显的需求之前,预定和提前支付用于生产的大批货物,而这些都不需要人类的监督。但是你会信任AI系统吗?关于AI对社会和人类产生的影响,存在很多的疑虑,这意味着我们要理性地思考对于机器的信任度。Forbes撰稿人Lauren deLisa Coleman在一个名为《你相信这台电脑吗?》的文献中探究了AI的黑暗一面。但是在很多方面都需要建立信任度。
信任一直都需要争取,AI也仍然致力于获取人们的信任,不仅仅从大众认知方面,而且也存在于会为AI支付大笔的资金人们的内心。这是德勤会计事务所近期一份报告的主题,分析了1100多家公司。“高管担心有很多与AI技术相关的风险,”Jeff Louck、Tom Davenport 和David Schatsky三位联合撰稿人发现:“有些风险与信息技术尤为相关,其它的则和AI技术一样特殊。”
多年来,我们通常使用IT系统来进行软件安装,但是如果出现了偏差,系统会回滚到安装前的状态,直到漏洞被修复。通常来说,人们伤害的最多的就是IT人员。然而,有了AI,问题就很难被发现,因为人们会盲目地依赖机器做出的决策,而且人们也不会立即检测机器做出的这些决策。
高管对于信任的需求出现在与AI相关的最高风险清单上,包括:
1.网络安全漏洞
2.基于AI做出错误的战略决策
3.AI做出决策的法律责任
4.AI无法用于预测“生或死”
由于AI在企业中的用途更加广泛(从绘制配送路线到与客户交流,再到做出管理决策所承担的重要角色),因此对于信任的需求也变得愈加敏感。
如何来建立对于AI的信任?Loucks和Davenport通过观察基于早期采用者的最佳实践,给出了以下的建议:
追求卓越:”推动业务线的变化,公司应该专注于项目管理和变化管理,”Loucks和Davenport说道:“人们对推动企业变化的基础认识会淹没在对于试点、基础实验和供应商炒作的激动心情中。”
衡量和追踪进程:“确保仔细对成本和影响进行了追踪。这会帮助首席财务官在项目和预算变大时,做出必要的投资。”
解决网络安全风险:“保持使用和开发最新的工具,解决AI环境和数据集的安全问题。“在网络安全方面所做的任何努力都无法防御每一次攻击,但是早期的采用在能够通过在流程开始阶段,通过集成安全性的方式来改善防御措施,并让其拥有更高的优先级。”
将AI应用到IT功能之外:“首先应用需要IT部门深度参与的复杂技术,这是很有必要的。但是只有在AI渗透到整个公司并为众多业务功能和部门带来变化的时候,才有可能实现AI的改造潜力。”
利用云资源:“云为众多用户提供了相应的服务,能够让他们轻易地访问基于AI的功能,云在实现这些目标方面也发挥着举足轻重的作用。很多大型云提供商都在开发针对具体业务功能的订阅式AI服务。这或许是将AI的好处带到产品设计、销售和营销等功能中最便捷的方式。”
购买现有的技术:“尽管认知技术仍在发展,但是发展速度也在加快。基于云且有认知能力的CRM和ERP软件都在被广泛使用,如聊天机器人。当然,公司在这‘四座大山’方面还需要专业知识,但是他们应该检查它们能够从企业软件和基于云的平台中获得什么能力。这会带来立竿见影的效果以及更低的初始投资。”
明智地招聘员工:“只专注于吸引和保留最兢兢业业的人才(如AI研究员、程序员和数据科学家),或许并不是最好的策略,尤其是对于刚刚起步的公司来说。在激烈的人才竞赛中,过多地招聘科技巨头正在挖掘的成本高且稀缺的人才会导致在招聘时产生挫败感。公司也有可能需要能够和数据科学家讨论AI并理解数据分析工具的用法和局限性的业务主管。”
决定在哪些方面进行自动化,哪些领域需要加强:“一些使用案例能够明显地表明自动化只不过是优于人类,并且比人类更加高效。在很多的情况下,机器都会接触到信息、做出预测、并提供多种选择。使用判断力、通感和业务技巧的员工应该应用这一信息从而带来最好的效果。这不仅仅是‘人机回圈’(Human-in-the-loop)的问题,而且还要建立加强人类决策的回圈。”
原文作者:Joe McKendrick
编译:信息化观察网
往期回顾
●有机器学习加持 Wallarm进一步推动应用程序安全●高效的数据管理也能推动电子商务的增长?●2018 Sibos大会:打击网络犯罪需要的是全球合作和访问IP数据